Một ma trận ở dạng hàng bậc thang rút gọn (còn gọi là dạng chính tắc hàng) nếu nó thỏa mãn ba điều kiện sau:[3]

• Nó ở dạng hàng bậc thang
• Phần tử chính của mỗi hàng không toàn là zero đều là 1 (gọi là số 1 chính)
• Ngoài số 1 chính ra, tất cả các phần tử khác cùng cột với nó đều là 0.

Dạng hàng bậc thang rút gọn của một ma trận có thể được tính bằng phép khử Gauss–Jordan. Không giống như dạng hàng bậc thang, dạng hàng bậc thang rút gọn của một ma trận là duy nhất và không phụ thộc vào giải thuật được sử dụng để tính nó.[4] Với một ma trận đã cho, mặc dù dạng hàng bậc thang không phải là duy nhất, tất cả các dạng bậc thang và bậc thang rút gọn của ma trận đều có cùng số hàng zero và các phần tử chính của các dạng đều có chỉ số giống nhau.[4]

Đây là một ví dụ về một ma trận ở dạng hàng bậc thang rút gọn, ta cũng có thể thấy phần bên trái của ma trận bậc thang rút gọn không phải khi nào cũng là một ma trận đơn vị:

[ 1 0 a 1 0 b 1 0 1 a 2 0 b 2 0 0 0 1 b 3 ] {\displaystyle \left[{\begin{array}{ccccc}1&0&a_{1}&0&b_{1}\\0&1&a_{2}&0&b_{2}\\0&0&0&1&b_{3}\end{array}}\right]}

Đối với các ma trận với các hệ số nguyên, dạng chuẩn tắc Hermite là một dạng hàng bậc thang mà có thể được tính bằng cách sử dụng phép chia Euclide và không cần tới phân số hay các số hữu tỉ. Mặt khác, dạng bậc thang rút gọn của một ma trận với các hệ số nguyên thường chứa các hệ số không nguyên.